COPE：新闻中的人工智能—

首页 >> 信息动态

COPE：新闻中的人工智能——ChatGPT

主流媒体和出版伦理领域的专家不谋而合实属罕见。然而，自从OpenAI的ChatGPT工具在2022年底发布以来(由于需求旺盛，目前已暂停注册)，两者都在忙着谈论人工智能工具用于内容创作的可能性和伦理。在这个迅速发展的领域，许多讨论仍处于探索阶段，然而，一些关键的主题和问题也已经开始出现，在这里，我们提供当前讨论的简要概述。

人工智能写作工具是什么？

人工智能工具的一个定义性质的特征是，他们会基于特定的信息体来“学习”（因此是“智能”的），无论这个信息体是将图像识别为“猫”或者“非猫”，还是在最新一代的大型语言模型中识别语言的结构和惯例。

威胁和机遇

正如去年对高等教育中的人工智能的研究所观察到的那样，人们常常以非常二元的术语来看待人工智能，尤其是人工智能所带来的机会和威胁。虽然一些学术出版商已经在使用具有一定程度的人工智能的自动化工具，如生成研究问题和协助文献综述，根据提示生成幻灯片，以及根据文本提示创建和编辑原创视频（更多相关信息请参见COPE论坛上的人工智能讨论），但对较新的LLM工具，人们有一种明显的不安情绪。它们模仿人类表达的能力令人敬畏的同时也带来了潜在的科研伦理道德挑战，特别是围绕作者身份、可验证性和原创性方面。

人工智能可以成为作者吗？

作者身份问题是一个特别重要的辩论话题。正如克里斯·斯托克尔-沃克（Chris Stokel-Walker）最近在Nature.com上发表的一篇文章中所讨论的那样，人工智能机器人已经在期刊文章和预印本中被作为作者，政策也在竞相应对由此引发的伦理问题。WAME在2023年1月发布了一套建议，明确指出不应将人工智能列为作者，因为它无法对其生产的内容负责，它也不是可以追索或转让版权的法律实体(Nature上最近的一篇论文强调了关于授予人工智能设计的发明专利的类似问题)。施普林格·自然（Springer Nature）和泰勒与弗朗西斯（Taylor & Francis）也都声明，作者必须在致谢、方法部分或类似内容中详细说明人工智能工具的任何输入细节，而不是在作者列表中引用它们。

人们正在形成一种共识，呼吁对人工智能采取“辅助驾驶”方法：所有内容都应由人类作者监督和修改。如果询问ChatGPT本身是否满足ICMJE的所有作者标准，会得到一个明确的答案:不，它不满足。

人工智能的道德风险

很明显，像ChatGPT、Bloom和其他类似的工具为人们颠覆道德实践提供了新的可能性。由于这类工具的操作方式是返回在概率上看似合理的文本，而不是正确文本，不负责任的使用（例如不检查事实和引用内容的实际真实性或准确性）会在学术文献中种下不正确或具有误导性的信息。在公共卫生、法律或财务等学科中，其更是令人关注的主题。

OpenAI正在为ChatGPT生成的输出产品制作水印，而Turnitin正在开发AI写作检测工具。一个新的应用程序GPTZero于1月推出，用于检测由人工智能写作机器人创作的作品。然而，人们仍然怀疑这些工具的可靠性。

还有一些问题围绕着人工智能如何与造纸厂和出售作者身份等其他不道德行为互动。人工智能工具实际上有可能降低其中一些行为的发生率：如果作者可以让机器人为他们创造一些独特的东西，那么他们为什么还要费尽心机地委托他人写论文呢（不过请注意，ACS能源通讯上的这篇文章表明情况并非如此）？不过，在其他方面，人工智能可能会使不道德的行为正常化，因为它使人们对所做工作的信用产生怀疑，并为剽窃行为提供便利。出于这个原因，WAME呼吁为出版商提供开放性的工具来协助检测。

更广泛的道德问题

其他人则更关心更哲学的问题，比如人工智能写作工具对写作本质和人类创造力的影响。一些作者指出，ChatGPT有可能抑制写作风格的创造力和差异性，而关于其在高等教育中的应用的文章则侧重于利用其存在作为探索“如何向学生教授写作技巧”的工具。另一方面，对于那些缺乏学术英语技能或信心的作者来说，这种服务可能是一个很好的平衡器，并且可以帮助那些有学习障碍的人。

如果单纯的禁止使用辅助性或适应性技术，这就可能涉及人权问题。更让人难以接受的是，用于训练这些工具的数据中存在仇恨性内容和偏见的证据。OpenAI试图通过将审查令人不安的材料的工作外包给一家支付最低工资的海外公司来处理这个问题，这对其道德声誉没有帮助。Scholaly Kitchen上的另一篇文章强调了ChatGPT的 "撒谎 "能力（至少，得出的信息只在概率意义上是可靠的）。

我们要提醒读者，至少现在，COPE成员必须是人类。
3月的COPE论坛会有更多关于人工智能和写作的讨论。

作者：Alysa Levene, COPE运营经理